Operadic consistency: a label-free signal for compositional reasoning failures in LLMs
操作子一致性：一种用于LLM组合推理故障的无标签信号
🧭 LLM组合推理一致性评估 ★ 深度解读
Incubilate · University of Cambridge · Allen Institute for Artificial Intelligence
提出操作子一致性(OC)作为无标签信号，检测LLM直接回答与分解重组回答的不一致，跨模型准确率高度相关且互补于采样基线的选择性预测
📌 工作参考价值（4 点）
- 在Agent多步推理中，增加操作子一致性检查：若模型对同一问题的直接回答与按自身分解步骤组合后的回答不一致，则标记为不可信，用于选择性预测或触发人工复核
- 对于电商场景中需要组合多个子查询的任务（如“查找符合条件A且B的商品”），可将复杂查询分解为子查询，分别获取结果后重组，对比直接查询结果，利用OC分数作为置信度特征输入到重排序或路由模块
- 该信号本身无需标签，只需3次推理调用，可与现有的采样多样性信号（如自洽性、语义熵）简单融合，通过逻辑回归等轻量校准器提升整体信心估计，适合生产环境中低成本实施
- 在生成式推荐中，可以利用操作子一致性验证多跳推理的中间步骤，例如验证推荐解释链的逻辑连贯性，作为事实一致性检查的补充